AI на Google Търсене погрешно каза, че Обама е мюсюлманин. Сега изключва някои резултати
Google обеща, че новите му инструменти за търсене с изкуствен интелект ще „вършат работата вместо вас“ и ще направят намирането на информация онлайн по-бързо и лесно. Но само дни след пускането на пазара, компанията вече връща някои фактически неверни резултати.
Google по-рано този месец представи инструмент за общ преглед на резултатите от търсенето, генериран от изкуствен интелект, който обобщава резултатите от търсенето, така че потребителите да не трябва да кликват върху множество връзки, за да получат бързи отговори на въпросите си. Но функцията беше подложена на критики тази седмица, след като предостави невярна или подвеждаща информация на въпроси на някои потребители.
Например, няколко потребители публикуваха в X, че резюмето на Google за AI казва, че бившият президент Барак Обама е мюсюлманин, често срещано погрешно схващане. Всъщност Обама е християнин. Друг потребител публикува, че резюмето на Google AI казва, че „нито една от 54-те признати държави в Африка не започва с буквата „K““ – очевидно забравяйки Кения.
Google потвърди пред CNN в петък, че прегледите на AI за двете заявки са премахнати поради нарушаване на правилата на компанията.
„По-голямата част от прегледите на AI предоставят висококачествена информация с връзки за по-дълбоко копаене в мрежата“, каза говорителят на Google Колет Гарсия в изявление, добавяйки, че някои други вирусни примери за грешки на Google AI изглежда са били манипулирани изображения. „Проведохме обширни тестове, преди да пуснем това ново изживяване, и както при другите функции, които пуснахме в Търсене, оценяваме обратната връзка. Предприемаме бързи действия, когато е подходящо съгласно нашите правила за съдържание.“
В долната част на всеки преглед на търсенето с AI в Google се признава, че „генеративният AI е експериментален“. И компанията казва, че провежда тестове, предназначени да имитират потенциални лоши актьори в опит да предотвратят показването на фалшиви или нискокачествени резултати в резюметата на AI.
Прегледите на търсенето на Google са част от по-големия стремеж на компанията да включи своята технология Gemini AI във всички свои продукти, докато се опитва да поддържа надпреварата във въоръжаването с AI с конкуренти като OpenAI и Meta. Но провалът от тази седмица показва риска, че добавянето на AI – който има тенденцията уверено да посочва невярна информация – може да подкопае репутацията на Google като доверен източник за търсене на информация онлайн.
Дори при по-малко сериозни търсения прегледът на AI на Google изглежда понякога предоставя грешна или объркваща информация.
В един тест CNN попита Google „колко натрий има в сока от кисели краставички“. Прегледът на AI отговори, че порция сок от туршия от 8 течни унции съдържа 342 милиграма натрий, но че порция, по-малка от половината от размера (3 течни унции), съдържа повече от два пъти повече натрий (690 милиграма). (Най-добрият сок от туршия Maid, който се продава в Walmart, съдържа 250 милиграма натрий само в 1 унция.)
CNN също търси: „данни, използвани за обучение на google AI“. В отговора си прегледът на AI признава, че „не е ясно дали Google предотвратява включването на защитени с авторски права материали“ в онлайн данните, събрани за обучение на своите AI модели, като се позовава на голяма загриженост за това как работят фирмите за AI.
Това не е първият път, когато Google трябва да се откаже от възможностите на своите AI инструменти заради неудобна грешка. През февруари компанията постави на пауза способността на своя AI фото генератор да създава изображения на хора, след като беше взривен за създаване на исторически неточни изображения, които до голяма степен показват цветнокожи вместо бели хора.
Уеб страницата на Search Labs на Google позволява на потребителите в области, където прегледите на AI търсенето са въведени, да включват и изключват функцията.
